Distance generalization in transformers: why bother with positional encoding?
Transformer 中的距离泛化：何必费心使用位置编码？
🧭 Transformer 距离泛化 · 位置编码消融
Institute for Theoretical Physics, Goethe University Frankfurt, Germany
系统考察 RoPE/ALiBi/NoPE 在合成延迟复制任务上的距离泛化，发现位置编码效果有限且数据多样性影响关键。
📌 工作参考价值（3 点）
- 在推荐/搜索序列建模中，如果序列长度固定且 token 间距离范围有限，NoPE 可能足够，可移除位置编码以降低模型复杂度和训练成本。
- 训练数据中覆盖的 token 间距离多样性对距离泛化至关重要：构建行为序列样本时，应刻意采样不同间隔的交互对，避免模型只见过短距离依赖。
- 距离迁移学习可能为负，说明模型在特定距离上过拟合；上线前需评估用户行为序列分布与训练分布的偏移，尤其是时间间隔分布变化。